FONCTIONS ANALYTIQUES - Fonctions de plusieurs variables complexes


FONCTIONS ANALYTIQUES - Fonctions de plusieurs variables complexes
FONCTIONS ANALYTIQUES - Fonctions de plusieurs variables complexes

La notion de fonction holomorphe de plusieurs variables complexes est aussi ancienne que l’analyse complexe. Les problèmes les plus simples, qui font intervenir des relations algébriques ou analytiques ou des équations différentielles, introduisent nécessairement ces fonctions. Mais, à part quelques faits élémentaires, pendant très longtemps on ne connut presque rien de la théorie générale; ce n’est qu’au XXe siècle, et surtout depuis 1950, que les résultats essentiels ont été obtenus, et la théorie est toujours en plein développement.

Dans l’étude classique de la théorie des fonctions d’une variable complexe, on considère: l’intégrale de Cauchy, la théorie des résidus, le prolongement analytique, les théorèmes de Weierstrass et de Mittag-Leffler. Dans une étude plus approfondie, on s’intéresse ensuite à la théorie des fonctions algébriques, des fonctions automorphes, etc. On examinera ici tous ces thèmes pour les fonctions de plusieurs variables; partant du problème des domaines d’holomorphie, on donnera ensuite quelques indications sur les variétés de Stein et sur les espaces analytiques.

1. Premières propriétés

Nous désignerons par Cn l’espace vectoriel des suites de n nombres complexes et par z , ou (z 1, z 2, ..., z n ), le point générique de cet espace.

Si 見 = ( 見1, 見2, ..., 見n ) est une suite d’entiers positifs, on pose:

de même, on adoptera le symbole suivant pour les dérivées partielles:

Si A = (A1, A2, ..., An ) est une suite de nombres réels positifs, on appelle polydisque ouvert |z | 麗 A le sous-ensemble de Cn défini par la suite d’inégalités:

de même, le polydisque fermé correspondant |z | 諒 A est le sous-ensemble de Cn défini par:

On dit qu’une fonction f définie dans un polydisque ouvert |z | 麗 A et à valeurs complexes est holomorphe , dans ce polydisque s’il existe une suite de nombres complexes a size=1, dépendant de l’indice 見 = ( 見1, 見2, ..., 見n ) 捻 Nn , tel que, pour tout point z du polydisque, la série:

soit absolument convergente, de somme f (z ). On peut alors montrer que les dérivées partielles de f (par rapport aux variables complexes z 1, ..., z n ) existent en tout point du polydisque et que:

on a donc:

formule qui, grâce aux notations introduites, rappelle la classique formule de Taylor.

On peut donner une autre définition équivalente à la précédente. La fonction f à valeurs complexes définie dans un polydisque |z | 麗 A est holomorphe si elle est différentiable au sens réel, c’est-à-dire au sens des 2n variables réelles x 1, y 2, x 2, y 2, ..., x n , y n , et si elle satisfait au système d’équations aux dérivées partielles:

ce système est appelé système de Cauchy-Riemann. On peut l’écrire sous la forme condensée 煉漣f = 0, en posant:

avec les notations:

Soit 行 un ouvert de Cn , c’est-à-dire un sous-ensemble de Cn tel que, pour tout point z 0 捻 行, il existe un polydisque ouvert |zz 0| 麗 A = A(z 0) non vide inclus dans 行. Une fonction f définie dans 行 et à valeurs complexes est dite holomorphe dans 行 si, pour tout point z 0 捻 行, il existe un polydisque ouvert non vide |zz 0| 麗 B(z 0) inclus dans 行 tel que la restriction de f à ce polydisque soit holomorphe au sens ci-dessus. Il résulte de cette définition que la notion d’holomorphie – c’est-à-dire le fait d’être holomorphe – pour une fonction est de nature locale, ce qui veut dire que, si f est définie dans un ouvert 行 réunion d’une famille d’ouverts 行i et si la restriction de f à chaque 行i est holomorphe, alors f est holomorphe dans 行.

On peut aussi définir plus généralement la notion d’application holomorphe d’un ouvert 行 de Cn dans un espace Cm : c’est la donnée de m fonctions f 1, f 2, ..., f m à valeurs complexes définies et holomorphes dans 行. Un isomorphisme analytique d’un ouvert 行 de Cn sur un ouvert 行 de Cn est une bijection j : 行行 qui est holomorphe ainsi que la bijection réciproque; ces isomorphismes analytiques conservent la notion de fonction holomorphe, c’est-à-dire que, si f est holomorphe dans 行 , la fonction jf est holomorphe dans 行 et, si g est holomorphe dans 行, la fonction j -1g est holomorphe dans 行 . Bien entendu, toutes ces définitions sont analogues aux définitions adoptées pour les fonctions d’une variable.

2. Représentations intégrales

Si f est une fonction holomorphe dans un ouvert 行 de Cn contenant un produit U1 憐 U2 憐 ... 憐 Un d’ouverts de C de frontières régulières orientées 塚1, 塚2, ..., 塚n , alors, pour tout z = (z 1, z 2, ..., z n ), z k 捻 Uk , pour k = 1, 2, ..., n , on a la représentation intégrale de Cauchy :

malheureusement, la fonction f est exprimée à partir de ses valeurs sur l’ensemble produit 塚1 憐 塚2 憐 ... 憐 塚n , et une hypersurface aussi simple qu’une sphère par exemple n’est pas un ensemble produit. On a donc cherché des représentations intégrales qui étendent l’intégrale de Cauchy et s’appliquent à des cas plus généraux: citons les intégrales de Cauchy-Weil, de Martinelli, de Hua-Bergman, de Cauchy-Fantappié-Leray.

L’intégrale introduite par André Weil en 1932 a joué un rôle important dans l’évolution de la théorie. Nous allons la décrire dans le cas de deux variables complexes, en passant sur les difficultés. On appelle polyèdre analytique une partie compacte d’un ouvert 諸 de C2 définie par un nombre fini d’inégalités:

où les f j sont des fonctions holomorphes dans 諸. On peut alors montrer qu’il existe des fonctions D1,j (z , u ), et D2,j (z , u ), définies dans un ensemble ouvert 諸 憐 諸 , où 諸 est un ouvert de C2 contenant K et contenu dans 諸, telles que:

Soit maintenant Si, j la partie de la frontière de K formée des points z tels que |f i (z )| = 1 et |f j (z )| = 1; on oriente Si, j d’une manière adéquate que l’on ne décrira pas ici. Si f est une fonction holomorphe dans 諸, on a alors la formule:

pour tout point z intérieur à K. La validité de cette formule est très délicate à établir, parce qu’il faut montrer l’existence des fonctions D1,j et D2,j et que les surfaces Si, j ne sont pas régulières en général.

Décrivons maintenant l’intégrale de Leray , qui est particulièrement bien adaptée à l’étude de la transformation de Laplace. L’idée est de remplacer les points par des hyperplans. Soit K un ensemble convexe avec point intérieur. En tout point de la frontière de K, définissons un hyperplan 﨡(u ), dépendant continûment de u , qui ne rencontre pas l’intérieur du convexe; lorsque u décrit la frontière de K, le point (u , 﨡(u )) de l’espace C2 憐 G1, où G1 désigne l’espace des hyperplans de C2, décrit une «surface» S de dimension 3 que l’on oriente de façon convenable. On a alors:

où 﨡0, 﨡1 et 﨡2 sont des fonctions continues de u , telles que:

On ne décrira pas les autres représentations intégrales; notons que, dans l’espace des n variables complexes, il y a (n 漣 1) intégrales de Martinelli différentes, obtenues en intégrant sur des surfaces de dimensions réelles respectives n , n + 1, ..., 2n 漣 1. Dans le cas de deux variables, la première intégrale de Martinelli se confond avec l’intégrale de Weil et la seconde, après un changement de variable, avec l’intégrale de Leray.

Les représentations intégrales jouent un rôle très important dans certaines applications de la théorie des fonctions holomorphes, par exemple dans la théorie quantique des champs telle qu’elle a été développée à partir des travaux du physicien américain Wightmann.

3. Théorie des résidus

Liée aux représentations intégrales, on trouve la théorie des résidus, dont la puissance est bien connue dans le cas des fonctions d’une variable complexe. Les premiers travaux sur cette question remontent à H. Poincaré, à la fin du XIXe siècle. Le développement de cette théorie est apparu comme urgent à la suite des travaux de Petrowski et de Herglotz sur les solutions élémentaires des équations aux dérivées partielles. Ces travaux, poursuivis et approfondis par Leray, l’ont conduit vers 1960 à l’exposé d’une théorie générale.

Définissons la notion de résidu, toujours dans le cas de deux variables complexes. Soit S une surface de C2 que l’on supposera définie par une équation s (z ) = 0, et soit 﨏 une forme différentielle fermée (c’est-à-dire de différentielle extérieure d 﨏 nulle) dans le complémentaire de S; on supposera de plus s 練 﨏 régulière au voisinage de S (on dit que 﨏 n’a sur S que des singularités polaires d’ordre 1). On peut montrer qu’il existe des formes différentielles 祥 et régulières au voisinage de S, telles que:

où 廬 désigne le produit extérieur des formes. De plus, la restriction de 祥 à S, soit 祥|S, ne dépend pas du choix de l’équation s : on l’appelle forme résidu de 﨏. Si on remplace la forme 﨏 par une forme 﨏 qui lui est cohomologue, c’est-à-dire telle que 﨏 漣 﨏 admette une primitive dans le complémentaire de S, alors le résidu 祥 |S de 﨏 sera cohomologue au résidu 祥|S; d’autre part, on prouve qu’étant donné une forme fermée dans le complémentaire de S, elle est cohomologue à une forme 﨏 n’ayant sur S que des singularités polaires d’ordre 1. Ainsi, et bien que la formule de division ci-dessus ne s’applique pas à, on peut définir le résidu de qui sera celui de 﨏 sur S. Le résidu ainsi défini n’est donné qu’au bord d’une forme fermée donnée sur S près, c’est-à-dire que la notion naturelle de résidu est celle de résidu d’une classe de cohomologie de formes données dans le complémentaire de S et que le résidu est lui aussi une classe de cohomologie de formes données sur S. On peut itérer cette construction et obtenir ainsi des résidus composés.

Donnons la formule des résidus dans le cas simple que nous avons choisi. Par un point u de S, traçons la droite complexe normale à S, qui ne rencontre S qu’en u dans un voisinage de ce point; on peut donc tracer dans cette droite complexe une circonférence C(u ) qui ne contienne que le point u de l’intersection de S avec cette droite complexe. Soit 塚 une courbe fermée tracée sur S. On associe à 塚 une surface fermée de dimension 2 en faisant parcourir au point u la courbe 塚 et en faisant varier continûment le cercle C(u ) en fonction du point u ; notons 嗀塚 la surface ainsi obtenue. Soit maintenant 﨏 une forme différentielle de degré 2 fermée dans le complémentaire de S et n’admettant que des singularités polaires d’ordre 1 sur S; nous noterons Res 﨏 sa forme résidu. Cette forme résidu est une forme de degré 1 et fermée définie sur S; prenant son intégrale sur 塚, on obtient la formule générale des résidus:

La formule usuelle des résidus se ramène à ce schéma. Cette nouvelle théorie des résidus a déjà trouvé des applications très importantes dans la théorie des équations aux dérivées partielles en permettant d’étendre les méthodes symboliques de Laplace, bien connues dans le cas d’une variable. Elle joue un rôle important en mécanique quantique, dans l’interprétation des intégrales dites de Feynmann. Elle a aussi mis de l’ordre dans la théorie des représentations intégrales, mais bien des applications restent encore à découvrir.

4. Prolongement analytique

Soit 行 un ouvert de Cn ; nous supposerons cet ouvert connexe, ce qui implique ici que deux points quelconques de 行 peuvent être joints par une ligne polygonale entièrement située dans 行. Si deux fonctions f et g holomorphes dans 行 sont égales dans un polydisque contenu dans 行, alors elles sont égales dans tout 行. Utilisant ce principe dit «du prolongement analytique», Weierstrass, dans le cas d’une variable complexe, a construit la surface de Riemann d’une fonction (cf. FONCTIONS ANALYTIQUES – Fonctions analytiques d’une variable complexe, chap. 7). Cela subsiste à un nombre quelconque de variables, mais des phénomènes nouveaux apparaissent.

Expliquons sur un exemple pourquoi la situation change quand on passe d’une variable à plusieurs variables. Soit tout d’abord 行 un ouvert du plan complexe. Si z 0 est un point du complémentaire de 行, la fonction z 料 1/(zz 0), dont la restriction à 行 est holomorphe dans 行, ne se prolonge pas analytiquement en z 0; donc, le domaine de prolongements analytiques commun à toutes les fonctions holomorphes dans 行 est cet ouvert lui-même. On peut même montrer qu’il existe des fonctions f holomorphes dans 行 qui ne se prolongent analytiquement en aucun point de la frontière de 行; cela signifie que, quel que soit le point t 0 appartenant à la frontière de 行, et le voisinage ouvert V de t 0, il n’existe pas de fonction g holomorphe dans V qui soit égale à f dans V 惡 行. Considérons maintenant au contraire dans l’espace C2 l’ouvert 行 ainsi défini: choisissons deux nombres strictement positifs distincts A et B; un point z appartiendra à 行 si |z 1| 麗 A et |z 2| 麗 B, ou bien si |z 1| 麗 B et |z 2| 麗 A. Utilisant une majoration des coefficients de Taylor à l’origine, on vérifie aisément que la série de Taylor de toute fonction f holomorphe dans 行 converge en fait dans l’ouvert défini par:

ainsi, toute fonction holomorphe dans 行 se prolonge analytiquement en des points qui n’appartiennent pas à 行.

Introduisons maintenant un outil particulièrement adapté à l’étude de ce nouveau phénomène. Soit D le disque unité fermé du plan complexe; donnons-nous une application continue de D 憐 [0,1] dans Cn qui, pour chaque valeur de t fixée, soit une fonction homolorphe de z . On appelle disque analytique de paramètre t l’image t de l’ensemble D par la fonction zf (z , t ), t fixé; la famille ( t ) est appelée une famille continue de disques analytiques. Si 煉D désigne la circonférence frontière de D, on appelle bord du disque analytique t , noté 煉 t , l’image de 煉D par la fonction zf (z , t ). Le principe de continuité affirme alors que, si f est une fonction holomorphe dans un ouvert contenant 0 et tous les 煉 t pour 0 諒 t 諒 1, alors f se prolonge en une fonction holomorphe dans un voisinage de la réunion des t . Cela conduit à introduire la notion suivante: on dit qu’un ouvert 行 de l’espace Cn satisfait à la propriété de continuité si, pour toute famille continue de disques analytiques de Cn telle que le disque initial soit dans 行 ainsi que le bord de chacun des disques analytiques de la famille, alors chacun des disques de la famille est dans D.

Si un ouvert de l’espace Cn est tel que, pour tout point de sa frontière, il existe une fonction holomorphe dans l’ouvert qui ne se prolonge pas analytiquement en ce point, on dit que c’est un ouvert d’holomorphie ; d’après le principe de continuité, il satisfait alors nécessairement à la propriété de continuité. Dans le cas de deux variables complexes, on doit la réciproque de ce résultat au mathématicien japonais Oka (1942); pour les ouverts de l’espace Cn , n 閭 2, cette réciproque a été obtenue en 1953 par Norguet et Bremerman.

La démonstration d’Oka est très profonde et a joué un rôle décisif dans l’évolution de la théorie. On peut énoncer le théorème général d’Oka, obtenu en 1954, sous une forme très intuitive: Soit U un ouvert de l’espace Cn ; par le même principe que celui qu’a utilisé Weierstrass, on peut construire un «ouvert étalé» V au-dessus de Cn tel que toute fonction holomorphe dans U ait un prolongement unique à V (la définition d’un ouvert étalé, très analogue à celle d’une surface de Riemann, est donnée ici même, chap. 6). Agrandissons maintenant U dans V en lui ajoutant tous les points appartenant à des familles continues de disques analytiques dont le disque initial et les bords sont dans l’ouvert; recommençant, on obtient, éventuellement, un nouvel ouvert plus grand dans V, etc. Il est clair que la réunion de cette suite croissante d’ouverts satisfait à la propriété de continuité. Le théorème d’Oka affirme qu’on obtient ainsi V; par cette construction, l’espace V est donc obtenu de façon presque concrète. En réalité, il est pourtant difficile de construire explicitement V lorsque U est connu.

Voici quelques exemples. Si U est le complémentaire d’un point dans Cn , n 閭 2, alors V = Cn . Si U est le complémentaire dans une boule ouverte W d’une boule fermée contenue dans W, alors V = W. Si U est un tube connexe de Cn , (c’est-à-dire un ensemble U tel que, si on désigne par xRn les composantes réelles de zCn , on ait z 捻 T si et seulement si x 捻 行, où 行 un ouvert connexe de Rn ), alors V est l’enveloppe convexe de U (théorème de Bochner).

On peut caractériser autrement les ouverts d’holomorphie. Soit U un ouvert de Cn et K un compact contenu dans U; pour toute fonction f holomorphe dans U, soit 瑩fK la borne supérieure de |f (z )| pour z 捻 K. Si on désigne par K l’ensemble des points z 捻 U tels que:

pour toute fonction f holomorphe dans U, le théorème de Cartan-Thullen affirme que U est un ouvert d’holomorphie si et seulement si, pour tout compact K 說 U, l’ensemble K est compact. Il s’agit d’une caractérisation globale qui est à l’origine de la notion de variété de Stein décrite ci-dessous.

Introduisons enfin la notion de fonction plurisousharmonique développée par K. Oka et P. Lelong. On se bornera, pour simplifier, à donner la définition pour une fonction deux fois continûment dérivable; dans le cas général, il faut supposer la fonction semi-continue supérieurement et prendre des dérivées partielles au sens des distributions. Soit p une fonction à valeurs réelles deux fois continûment dérivable dans un ouvert U de Cn . Pour z 捻 U, posons:

on dit alors que p est plurisousharmonique dans U si HZ(w ) 閭 0 pour tout z 捻 U et wCn .

Soit maintenant U un ouvert de Cn dont la frontière est une hypersurface assez régulière et soit 嗀(z ) la distance d’un point z 捻 U à la frontière de U, c’est-à-dire le rayon de la plus grande boule ouverte de centre z contenue dans U. On montre que U est un ouvert d’holomorphie si, et seulement si, la fonction:

est plurisousharmonique. On en déduit facilement qu’un ouvert U est un ouvert d’holomorphie si, et seulement si, il est localement (mot clef dans toute cette théorie) d’holomorphie, c’est-à-dire si, pour tout point zCn , on peut trouver une boule B(z ), de centre z , telle que B(z ) 惡 U soit un domaine d’holomorphie. Les résultats précédents subsistent si la frontière de U n’est pas supposée régulière mais les définitions générales sont plus techniques.

Les domaines d’holomorphie permettent dans de nombreux cas le passage du «local» au «global». Étudié par K. Oka, puis par H. Cartan et J.-P. Serre, ce phénomène n’a pu être complètement compris qu’avec l’introduction de concepts nouveaux (les faisceaux, la cohérence des faisceaux de modules et la cohomologie à valeurs dans un faisceau) dont on peut dire sans excès qu’ils ont révolutionné les branches les plus diverses des mathématiques.

5. Les problèmes de Cousin

L’idée initiale remonte à H. Poincaré et ces problèmes ont été résolus, dans le cas particulier d’un polydisque, par J. Cousin dès 1895. La situation n’a plus évolué pendant près de quarante ans jusqu’aux travaux d’Oka; les démonstrations d’Oka pour les domaines d’holomorphie ont été un pas important vers la théorie de Cartan-Serre.

Dans le cas d’une variable, on dit qu’une «fonction» est méromorphe dans un ouvert si elle n’a que des pôles; on peut d’ailleurs l’interpréter comme une vraie fonction holomorphe à valeurs dans l’espace projectif. Dans le cas de plusieurs variables, on appellera fonction méromorphe dans un ouvert U la donnée d’une famille (Ui ) d’ouverts, de réunion U, et dans chaque ouvert Ui d’une «fonction» f i /g if i et g i sont holomorphes dans Ui ; on suppose de plus que, dans chaque ouvert non vide de la forme Ui 惡 Uj , on a f i /g i = f j /g j , c’est-à-dire f i g jf j g i = 0.

Étendons à plusieurs variables le problème de Mittag-Leffler qui consiste à déterminer dans le plan une fonction méromorphe admettant un système de développements polaires donnés. On peut le formuler ainsi: Soit un ouvert U réunion de polydisques ouverts Ui ; on se donne dans chaque Ui une fonction méromorphe f i /g i de telle sorte que f i /g if j /g j soit holomorphe dans Ui 惡 Uj quels que soient i et j ; alors il existe une «fonction» méromorphe admettant le système polaire donné, c’est-à-dire qu’il existe des fonctions f i , g i holomorphes dans Ui telles que:

soit holomorphe dans Ui et:

dans Ui 惡 Uj . Posons pour cela:

ce système de fonctions holomorphes t i,j satisfait aux identités:

dans Ui 惡 Uj et:

dans Ui 惡 Uj 惡 Uk . On montre alors, sous ces hypothèses générales (c’est-à-dire sans supposer que les fonctions holomorphes t i, j proviennent de la donnée de parties polaires), qu’il existe des fonctions t i holomorphes dans Ui telles que t i, j = t it j dans Ui 惡 Uj ; la «fonction» méromorphe cherchée est alors obtenue en posant:

Pour étendre à plusieurs variables le théorème classique de Weierstrass sur l’existence d’une fonction entière ayant des zéros donnés, il est indispensable d’introduire une nouvelle notion. Soit U un ouvert de Cn ; on dit qu’un ensemble F 說 U fermé dans U est un ensemble analytique dans U s’il existe une famille d’ouverts Ui de réunion U et dans chaque Ui un nombre fini de fonctions holomorphes f i, 1, f i, 2, ..., f i, n (n dépend de i ) tels que la trace F 惡 Ui de F sur Ui soit exactement l’ensemble des zéros communs aux fonctions f i, 1, ..., f i, n . Dans le cas où U est un ouvert d’holomorphie, on montre alors (théorème de H. Cartan) que F peut être défini par des équations globales , c’est-à-dire qu’il est l’ensemble des zéros d’un système d’équations g k (z ) = 0, pour k = 1, 2, ..., ng k est holomorphe dans U. On déduit de ce résultat que, dans un ouvert d’holomorphie U, toute fonction méromorphe peut s’écrire globalement f /g , où f et g sont holomorphes dans U tout entier.

À une variable, la théorie de Weierstrass s’affine dans le cas des fonctions d’ordre fini, c’est-à-dire telles que:

l’extension à plusieurs variables des résultats d’Hadamard-Lindelöf a tenté les mathématiciens. La première difficulté est dans la nature des zéros qui sont en général des ensembles analytiques «avec singularités». Considérons par exemple le polynôme z 21 + z 22; pour z 1 0, on a une représentation paramétrique de l’ensemble des zéros z 2 = 﨣 ou z 2 = 漣 﨣 qui est régulière pour | 﨣 漣 z 1| 麗 |z 1|; mais il n’existe pas de telle représentation au voisinage de z 1 = 0. Pour mesurer la croissance de l’ensemble des zéros, on est conduit à définir l’aire d’un ensemble analytique, ce qui a été fait par P. Lelong. On peut alors étendre la théorie des produits canoniques de Weierstrass-Hadamard (cf. FONCTIONS ANALYTIQUES - Fonctions analytiques d’une variable complexe, chap. 9) en faisant intervenir des intégrales portant sur l’ensemble analytique des zéros.

6. Variétés et espaces analytiques

Un des sommets de la théorie des fonctions d’une variable complexe est l’étude des surfaces de Riemann et leur uniformisation par les fonctions automorphes de Klein-Poincaré. Les fonctions automorphes de plusieurs variables relèvent plus naturellement de la théorie des groupes de Lie (cf. GROUPES – Groupes de Lie) tandis que les surfaces de Riemann trouvent leur extension dans les notions de variété et d’espace analytiques que nous allons introduire ici.

Soit X un espace topologique séparé. Une structure d’espace annelé sur X est définie par la donnée, pour chaque ouvert U de X, d’un anneau A(U) et, pour toute paire U, V d’ouverts tels que V 說 U, d’un homomorphisme d’anneau:

pour f 捻 A(U), on dira que j V,U(f ) est la restriction de f à V. On impose aux homomorphismes donnés d’être compatibles , c’est-à-dire que, si W 說 V 說 U, on doit avoir:

et de satisfaire à la condition de recollement suivante. Soit (Ua ) une famille d’ouverts de réunion U et supposons donné, pour tout a , un élément f a 捻 A(Ua ) de telle sorte que, quels que soient a et b , les restrictions de f a et f b à Ua 惡 Ub soient égales; la condition de recollement exprime qu’il existe alors un élément f 捻 A(U) unique dont la restriction à chaque Ua soit f a . Cette condition de recollement est la formalisation abstraite de l’idée que les éléments des anneaux A(U) sont caractérisés par des propriétés de nature «locale».

Par exemple, dans X = Cn , pour tout ouvert U, soit A(U) l’anneau (pour l’addition et la multiplication usuelles) des fonctions holomorphes dans U, et, pour V 說 U, soit j V,U l’application qui, à toute fonction holomorphe dans U, fait correspondre sa restriction à V au sens usuel; on obtient ainsi ce qu’on appelle la structure analytique de Cn .

Dans tout ce qui suit, on supposera toujours que les anneaux A(U) sont des anneaux de fonctions à valeurs complexes continues dans U et que j V,U est la restriction au sens usuel.

Soit X et Y deux espaces annelés. On dit qu’une application continue :

est un morphisme d’espace annelé si, pour tout ouvert V de Y, l’ensemble des fonctions, définies dans l’ouvert U = p -1(V), de la forme gp , g 捻 A(V), est un sous-anneau de A(U). Soit, par exemple, 行 un ouvert de Cn muni de la structure d’espace annelé obtenue en prenant pour A(U), U ouvert de 行, l’anneau des fonctions holomorphes dans U; l’application identique de 行 dans Cn est un morphisme analytique et on dit que 行 est muni de la structure induite par Cn . Si p est une bijection et si la bijection réciproque p -1: YX est aussi un morphisme d’espaces annelés, on dira que p est un isomorphisme d’espaces annelés .

Une variété analytique complexe X est, par définition, un espace annelé (dans lequel les anneaux A(U) sont des anneaux de fonctions continues dans U; cf. infra ) qui est localement isomorphe à un ouvert de Cn , c’est-à-dire que, pour tout point x 捻 X, il existe un ouvert 諸x 說 X contenant x , un ouvert 行xCn et une bijection:

qui soit un isomorphisme analytique de 諸x , muni de sa structure d’espace annelé induite, sur 行x . Avec cette notion, on peut donner une définition correcte d’un ouvert étalé sur Cn (cf. chap. 4); c’est la donnée du couple (V, p ) d’une variété analytique V et d’un morphisme p : VCn qui est localement un isomorphisme.

Soit F un ensemble analytique d’un ouvert 行 de Cn (cf. chap. 5). Par définition, on dit alors qu’une fonction f à valeurs complexes définie dans un ouvert de F est holomorphe si, pour tout point z de cet ensemble, on peut trouver un polydisque Pz de centre z et une fonction g z , holomorphe dans ce polydisque, dont la restriction à Pz 惡 F soit égale à la restriction de f à cet ensemble. On dit que F est muni de sa structure d’espace analytique quand on le munit de la structure d’espace annelé obtenu en prenant pour A(U), U ouvert de F, l’anneau des fonctions holomorphes dans U. Par définition, un espace analytique général est alors un espace annelé localement isomorphe à un ensemble analytique muni de sa structure d’espace analytique.

Si X est une variété analytique, ou un espace analytique, et U un ouvert de X, on appelle, par définition, fonction holomorphe dans U les éléments de l’anneau A(U).

L’espace projectif complexe Pn (C) est une variété analytique, dont tout sous-ensemble analytique peut être muni d’une structure d’ensemble algébrique: on montre qu’un tel ensemble analytique peut être défini par un système d’équations algébriques (théorème de Chow). Mais, en général, une variété analytique complexe compacte n’est pas nécessairement une variété algébrique (contrairement au cas de la dimension 1) et n’est donc pas plongeable dans un espace projectif comme sous-variété régulière. Parmi les variétés analytiques compactes, les variétés algébriques ont des propriétés très particulières: elles sont kahlériennes. Cela a permis de faire progresser la théorie des variétés algébriques par voie transcendante (théorie de Hodge).

7. La théorie de Cartan-Serre

En 1951, Henri Cartan et Jean-Pierre Serre ont introduit la notion de variété de Stein . Ce sont les variétés analytiques complexes V qui possèdent les propriétés suivantes:

a ) si, pour tout compact K 說 V, on désigne par K l’ensemble des points z 捻 V tels que:

pour toute fonction f holomorphe sur V, alors K est compact;

b ) si x et y sont deux points distincts de V, il existe une fonction f holomorphe sur V qui sépare x et y , c’est-à-dire telle que:

c ) pour tout point z 0 捻 V il existe des coordonnées locales données par des fonctions holomorphes dans V tout entier, c’est-à-dire qu’il existe un voisinage de z 0 et des fonctions f 1, f 2, ..., f n holomorphes dans V, telles que z 料 (f 1(z ), f 2(z ), ..., f n (z )) soit un isomorphisme analytique de ce voisinage sur un ouvert de l’espace Cn .

H. Cartan et J.-P. Serre ont montré que les principales propriétés des domaines d’holomorphie s’étendaient aux variétés de Stein et ils ont mis la plupart des propriétés de passage du local au global sous forme cohomologique ; ce sont les fameux théorèmes A et B de H. Cartan.

À leur suite, Frenkel, dans un cas particulier, puis Grauert, dans le cas général, ont établi la validité du «principe d’Oka» dans un cadre étendu.

Après Cartan-Serre, la théorie des espaces analytiques a été intensivement développée (Remmert, Grauert, Grothendieck); l’étude locale et l’étude du comportement des morphismes sont très importantes et on peut définir les analogues des variétés de Stein.

8. La d size=5-cohomologie

Dans un certain nombre de cas particuliers, problème de Cousin par exemple, le passage du local au global se ramène au problème de calcul intégral développé par Dolbeault.

Considérons ici seulement le cas d’un ouvert de Cn . On prend comme base de l’espace des différentielles:

pour j = 1, 2, ..., n ; les opérateurs du premier ordre associés à cette base sont:

pour j = 1, 2, ..., n .

L’opérateur d de différenciation extérieure est somme de deux opérateurs, d = d + d , où:

en désignant par 廬 l’opération du produit extérieur. Une forme différentielle de degré n est alors dite de type (p , q ), p + q = n , si, écrite par rapport à la base des dz j , d 磻 k , elle est de degré p en dz et de degré q en d 磻 . On peut énoncer ainsi le théorème de Dolbeault (nous supposerons que les formes considérées sont à coefficients «très dérivables»). Soit 行 un domaine d’holomorphie et 諸 une forme de type (p , q ) dans 行; une condition nécessaire et suffisante pour qu’il existe une forme 刺 de type (p , q 漣 1) telle que:

est que, supposant q 閭 1,

On doit ces dernières années à Hörmander la démonstration directe de ce résultat par des méthodes d’espace de Hilbert qui permettent, de plus, d’estimer la croissance des coefficients de la forme différentielle 神 en fonction de ceux de 諸 (cohomologie à croissance). Ces résultats permettent d’abréger beaucoup la démonstration du théorème de pseudo-convexité d’Oka (cf. chap. 4).

La théorie des fonctions de variables complexes, au même titre que l’arithmétique par exemple, est centrale dans la mathématique, et les problèmes qu’elle est amenée à considérer sont, en un certain sens, irréductibles. Mais les structures qui interviennent sont très compliquées, car on considère à chaque instant des couches superposées de structures algébriques et topologiques mélangées.

C’est sans doute dans une telle situation que l’unité de langage introduite par N. Bourbaki manifeste son importance car, grâce à elle, les branches les plus diverses des mathématiques contemporaines ont contribué à l’édification de la théorie. Inversement, ses progrès ont été déterminants dans l’évolution des idées contemporaines; ainsi, c’est après sa greffe réussie sur les variables complexes que la théorie des faisceaux est devenue un outil aussi général et indispensable. Mais cette histoire n’est pas finie...

9. Autres développements

Depuis 1970, la théorie des fonctions analytiques de plusieurs variables a continué à se développer très rapidement. La géométrie analytique du type de celle qui fut introduite par H. Cartan et J.-P. Serre, fondée sur la théorie des faisceaux et l’algèbre homologique, a poursuivi son essor rapide avec en particulier la théorie des déformations d’espaces analytiques (O. Forster et Kuranishi) et celle des systèmes différentiels holomorphes Kawai, Kashiwara, Schapira.

Néanmoins, le fait le plus nouveau et le plus marquant est sans aucun doute l’importance prise dans le domaine des fonctions de plusieurs variables par l’analyse complexe fine à plusieurs variables à la suite des travaux de L. Hörmander sur la d -cohomologie à croissance et de ceux de G. M. Henkin, I. Lieb et H. Grauert sur la d -cohomologie bornée. Nous allons parler essentiellement de cet aspect nouveau et nous nous limiterons en ce qui concerne le premier aspect à l’exposé du problème de J.-P. Serre.

Le problème de J.-P. Serre en géométrie analytique

Soit X un espace fibré de base B, de fibre F, ce qui signifie qu’il existe une application 神 holomorphe de X sur B et que, pour tout point b 捻 B, il existe un voisinage ouvert 諸 de b et un isomorphisme 﨏 de 神-1( 諸) sur 諸 憐 F tel que le diagramme suivant soit commutatif:

Si ( 諸1, 﨏1), ( 諸2, 﨏2) sont deux telles trivialisations du fibré, 﨏2 獵 﨏1-1 restreinte àb 憐 F définit un automorphisme de la fibre F, appelé automorphisme de transition.

Le problème de J.-P. Serre est alors le suivant: si B et F sont des espaces de Stein, l’espace total X du fibré est-il de Stein? La réponse est positive dans un grand nombre de cas particuliers, lorsque la fibre est une variété de dimension 1, lorsque la fibre est un ouvert de Stein, borné, de Cn dont le groupe H1 (F, C) est nul (Y. T. Siu), lorsque la fibre est hyperconvexe, c’est-à-dire lorsqu’il existe sur F une fonction 﨏 plurisousharmonique, telle que 﨏 麗 0 et telle que les ensemblesz 捻 F; 﨏 (z ) 麗 c soient relativement compacts pour c 麗 0 (J.-L. Stehlé). On montre qu’un ouvert borné, de Stein, de Cn à frontière de classe C1 est hyperconvexe. Dans la plupart des cas, la méthode consiste à montrer qu’il existe sur F une fonction plurisousharmonique 祥 exhaustive (i.e. les ensemblesz 捻 F; 祥(z ) 麗 c sont relativement compacts) variant peu sous l’action des automorphismes de transition du fibré. On en déduit alors l’existence d’une fonction 﨑 strictement plurisousharmonique, continue, exhaustive sur X.

Un théorème de H. Grauert permet d’en conclure que X est de Stein.

En revanche, nous avons montré que la réponse au problème de Serre est négative lorsque la fibre est C2. Fort curieusement, le contre-exemple est étroitement relié à la théorie de la croissance à l’infini des fonctions entières dans Cn pour n 閭 2. Un résultat dû à P. Lelong montre que la croissance le long des fibres d’une fonction holomorphe sur X varie peu sur des fibres voisines. On choisit alors la structure de X de manière que cette croissance à l’infini soit invariante par les automorphismes de transition. Puis, on choisit des automorphismes de transition du type (z 1, z 2) 料 (z 1, z 2exp(z 1)) qui imposent de sévères distorsions à la croissance des fonctions sur les fibres, incompatibles avec la conservation de la croissance. On en conclut que les fonctions holomorphes sur X sont constantes sur les fibres et donc que X n’est pas de Stein.

La théorie des courants, positifs, fermés

On appelle courant T sur la variété 行, de dimension p , une forme linéaire continue sur l’espace p ( 行) des formes différentielles de classe C size=1, à support compact, de degré p . On note 麗 T, 﨏 礪 la valeur du courant T sur la forme 﨏. Si X est un sous-ensemble analytique de la variété analytique complexe 行, de dimension complexe 福, on associe à X le courant d’intégration [X], de dimension 2p , défini par:

où 﨏 est une forme de degré 2p . Le courant [X] est de bidimension (p , p ), c’est-à-dire 麗 [X], 﨏 礪 = 0 si 﨏 est de bidegré (r , s ), avec (r , s ) (p , p ). Il est de plus positif au sens suivant; on a:

pour toutes formes 見1, ..., 見 size=1 de bidegré (1,0) et toute fonction 祥 閭 0 à support compact. Enfin, il est fermé; on a 麗 [X], d 﨑 礪 = 0 par la formule de Stokes pour toute forme 﨑 de degré 2p 漣 1.

En fait, les singularités de X créent des difficultés dans les considérations précédentes, difficultés qui ont été résolues par P. Lelong.

On est donc amené à considérer les courants T de bidimension (p , p ), positifs et fermés, qui généralisent la notion d’ensemble analytique. L’intérêt d’une telle généralisation est que la notion de courant, positif, fermé est beaucoup plus facile à manipuler que celle d’ensemble analytique. On peut définir des moyennes de courants, positifs, fermés, ainsi que le régularisé d’un courant, positif, fermé qui est une forme différentielle de classe C 秊 et utiliser des outils du calcul différentiel. Un courant T positif est d’ordre nul, c’est-à-dire que 麗 T, 﨏 礪 est défini pour une forme à coefficients continus, à support compact. Inversement, on peut construire des ensembles analytiques à partir d’un courant, positif, fermé T, en considérant les nombres de Lelong ou densités du courant T. Supposons pour simplifier que 行 soit un ouvert de Cn . Soit 廓 = (i /2) d d |z |2 la forme de Kähler de Cn . On définit une mesure positive 靖, associée à T, en posant:

pour toute fonction continue à support compact 﨏. Si T = [X], 靖 n’est autre que la mesure aire de l’ensemble analytique X. On définit alors le nombre de Lelong de T, ou densité de T, au point x 捻 行 par:

où 靖(B 漣(x , r )) est la masse de la mesure 靖 portée par la boule euclidienne, fermée, de centre x et de rayon r , et où ( 神p /p !)r 2p n’est autre que le volume de la boule de rayon r dans Cp . On montre que la limite existe toujours dans la définition de 益(T, x ).

Si T = [X], on montre que 益(T, x ) est un entier pour tout x 捻 X égal à 1 en tous les points réguliers de X et égal à la multiplicité de X en les points singuliers de X. On a bien sûr 益([X], x ) = 0 en tous les points x 殮 X. On a également 益(T, x ) = 0 pour tout x si T est un courant de classe C size=1.

Inversement, si T est un courant, positif, fermé de bidimension (p , p ), et si c est une constante 礪 0, alors, d’après un résultat profond et fondamental de Y. T. Siu, l’ensemble Ec =z 捻 行; 益(T, x ) 閭 c est un ensemble analytique de dimension 諒 p . Il en résulte aisément que si par exemple 益(T,x ) 閭 c 礪 0 en tout point du support de T, alors T est un cycle, c’est-à-dire un courant de type c i [Xi ] où les Xi forment une i famille localement finie d’ensembles analytiques irréductibles et les c i sont des constantes positives.

La démonstration du théorème de Y. T. Siu est étroitement reliée aux estimations L2 d’Hörmander pour la d -cohomologie. En effet, on peut ramener le cas de la bidimension (p , p ) au cas de la bidimension (n 漣 1, n 漣 1). Lorsque T est de bidimension (n 漣 1, n 漣 1), on peut écrire T sous la forme T = id d V, où V est une fonction plurisousharmonique. D’après un théorème d’Hörmander-Bombieri il existe des fonctions holomorphes F non nulles telles que:

d est la mesure de Lebesgue sur Cn et k une constante 礪 0.

En un point où 益(T, x ) 閭 c , V(x ) vaut 漣 秊 et on peut choisir k de sorte que e -kV soit non sommable en x . La fonction F du théorème de Hörmander-Bombieri doit alors nécessairement s’annuler en x . L’ensemble Ec est donc contenu dans l’ensemble des zéros de F. On en déduit ensuite qu’il est analytique. Nous avons également utilisé des outils semblables pour généraliser au cas des ensembles analytiques de codimension quelconque dans Cn la théorie des produits canoniques de Weierstrass-Hadamard. On définit la croissance d’un ensemble analytique, de dimension p , dans Cn , par la croissance du volume de X dans la boule de rayon r quand r+ 秊. On construit un potentiel canonique V plurisousharmonique par intégration sur X. Ce potentiel est la bonne généralisation du produit canonique de Weierstrass, il vaut 漣 秊 sur X. On utilise enfin le théorème d’Hörmander-Bombieri pour construire des fonctions entières nulles sur X à partir de V. On en déduit qu’on peut représenter X comme ensemble des zéros communs à n + 1 fonctions entières dont la croissance à l’infini est majorée par la croissance du volume de X. Le cas où X est de codimension 1 avait été précédemment résolu par P. Lelong par une méthode très différente.

Signalons que Bombieri a utilisé ces techniques en théorie des nombres pour étudier les propriétés arithmétiques des fonctions entières à plusieurs variables.

Signalons également que d’autres classes de courants, les courants rectifiables, fermés, par exemple, jouent un rôle important en analyse complexe. On pourra consulter l’article de présentation générale de R. Harvey (cf. Bibliographie).

L’analyse fine à plusieurs variables

En 1970, G. M. Henkin, d’une part, I. Lieb et H. Grauert, d’autre part, firent l’observation fondamentale qu’une extension aux cas des formes différentielles de la formule de Cauchy-Fantappié-Leray, dite de représentation intégrale, pour les fonctions holomorphes permettait de construire une solution explicite de l’équation 煉漣u = f . On considère sur CnCn =( 﨡, 兀); 﨡 捻 Cn , 兀 捻 Cn la forme différentielle:

où:

La forme 猪 est bien définie sur l’ensemble:

Elle est de plus fermée, d 猪 = 0 sur E. On considère un ouvert borné 行 de Cn et une application de classe C1

telle que:

pour 﨣 z . Soit la diagonale de CnCn et soit l’application:

Soit K = 猪 l’image réciproque de 猪 par sur ( 行 漣 憐 行) . On peut choisir en particulier pour application s l’application de Bochner-Cauchy-Martinelli s b = 﨣 漣 . Le noyau Kb = b 猪 correspondant est appelé le noyau de Cauchy-Martinelli. Il fournit une solution élémentaire de l’opérateur d . On a au sens des distributions:

sur CnCn , où c n est une constante ne dépendant que de n et [ ] le courant d’intégration sur la diagonale de CnCn .

On suppose désormais que s coïncide avec s b sur un voisinage de la diagonale dans 行 憐 行. On désigne par Kp ,q la composante de K de bidegré (p , q ) en z et (np , nq 漣 1) en 﨣. Si f est une forme différentielle de bidegré (p , q ) et de classes C1 sur 行 漣 et si la frontière de 行 est de classe C1, on démontre, en utilisant la relation (1) et la formule de Stokes, la formule de Koppelman:

où Cp ,q ,n est une constante dépendant de p , q , n et où les dérivées sont calculées au sens des distributions.

Si on parvient à imposer maintenant à l’application s d’être holomorphe en z pour 﨣 fixé dans 煉 行, on aura d z s j = 0, 1 諒 jn, pour 﨣 捻 煉 行 et par suite Kp ,q ( 﨣, z ) = 0 pour 﨣 閭 煉 行 et q 捻 1. Le premier terme de la formule de Koppelman est donc nul.

Si d f = 0, on a alors une solution à l’équation d u = f , donnée par:

Si 行 est strictement pseudoconvexe, i.e. 行 =z ; 福(z ) 麗 0, où 福 est une fonction de classe C2, définie au voisinage de 行 漣, strictement plurisousharmonique et vérifiant d 福 0 sur 煉 行, on montre qu’une telle application s existe, coïncidant avec s b près de la diagonale de 行 憐 行 et holomorphe en z pour 﨣 捻 煉 行. Lorsque la fonction 福 est strictement convexe, la construction de s est même entièrement explicite, on peut alors prendre s j ( 﨣, z ) = ((face=F0019 煉 福)/(face=F0019 煉 﨣j )) ( 﨣) quand 﨣 est proche de 煉 行 par rapport à z et recoller avec s b par une partition de l’unité. Dans tous les cas, la construction est suffisamment explicite pour contrôler parfaitement le noyau K et le comportement de la solution u . On montre en particulier que u est bornée si f est bornée et que u est dans Lp ( 行) si f est dans Lp ( 行) 1 諒 p 諒 + 秊.

Cette solution explicite de l’équation d u = f a marqué un tournant dans le développement des fonctions de plusieurs variables en permettant d’aborder à plusieurs variables les problèmes d’analyse fine qu’on ne savait traiter jusqu’alors qu’à une variable. Nous renvoyons au livre de Rudin pour une bibliographie sur le foisonnement de résultats nouveaux qui en est résulté. Comme application, nous citerons uniquement les problèmes de zéros de fonctions holomorphes.

行 désignant toujours un ouvert strictement pseudoconvexe, on désigne par 行 size=1 l’ensemblez ; 福(z ) 麗 漣 﨎. La classe de Nevanlinna N( 行) (respectivement l’espace Hp ( 行) 0 麗 p 麗 + 秊) est l’ensemble des fonctions holomorphes sur 行 telles que:

resp.:

d S size=1 est l’élément de volume euclidien sur 煉 行 size=1 et où ln + |f | désigne la fonction Sup(ln|f |, 0). On a trivialement:

pour tout p , où H 秊( 行) est l’espace des fonctions holomorphes bornées. Nous dirons que l’hypersurface complexe X de 行 vérifie la condition de Blaschke si on a:

d 靖 est l’élément de volume (2n 漣 2)-dimensionnel de X. Pour n = 1, d 靖 est la mesure définie par les masses de Dirac situées aux différents points constituant X. À une variable, la condition de Blaschke caractérise les ensembles de zéros des fonctions de N( 行) et de tous les espaces Hp ( 行) 0 麗 p 諒 + 秊. En revanche, pour n 礪 1, des exemples montrent que, si 行 est l’exemple le plus simple de la boule euclidienne de Cn , la caractérisation des zéros des fonctions de Hp ( 行) doit nécessairement dépendre de p . Il en résulte qu’une telle caractérisation est probablement très difficile. Néanmoins, la caractérisation des zéros de N( 行) reste simple. Il est aisé de montrer que l’ensemble des zéros d’une fonction de N( 行) vérifie la condition de Blaschke. Inversement, Henkin et nous-mêmes avons démontré indépendamment que si X est une hypersurface vérifiant la condition de Blaschke et si H2( 行,Z) = 0, alors X est l’ensemble des zéros d’une fonction de N( 行). La construction de f se fait en résolvant l’équation de Lelong-Poincaré:

où [X] désigne le courant d’intégration sur l’hypersurface X. Elle est, par suite, étroitement reliée aux méthodes explicites pour la résolution de l’opérateur d . Un autre résultat particulièrement satisfaisant est dû à B. Berndtsson: Si X est une hypersurface de volume fini de la boule euclidienne unité de C2, alors X est l’ensemble des zéros d’une fonction de H size=1( 行). Mais, inversement, l’ensemble des zéros d’une fonction de H size=1( 行) n’est pas nécessairement de volume fini. Il faut noter que la démonstration de Berndtsson est spécifique à la boule et ne se généralise pas aisément au cas d’un ouvert strictement pseudoconvexe pour lequel le problème reste ouvert.

Parmi les problèmes importants ouverts, il convient de noter le problème de la généralisation à la codimension quelconque du résultat de Henkin-Skoda: si un sous-ensemble analytique de 行, de codimension 閭 2, vérifie la condition de Blaschke, peut-on le définir par des fonctions de N( 行)?

Il serait également intéressant de généraliser la méthode explicite de résolution de l’opérateur d au cas de formes à valeurs dans un fibré vectoriel holomorphe hermitien en faisant intervenir la courbure du fibré. L’équivalence dans le cadre des estimations L2 pour l’opérateur d de ce résultat existe déjà.

Encyclopédie Universelle. 2012.